După ce i-a fost ucisă fiica, a descoperit că aceasta a fost transformată într-un chatbot cu inteligență artificială
O întâmplare șocantă a adus în prim-plan dilemele etice legate de utilizarea inteligenței artificiale. După ce și-a pierdut fiica în 2006, Drew Crecente a fost nevoit să se confrunte din nou cu trauma pierderii, când a descoperit că imaginea și numele ei erau folosite pentru un chatbot pe platforma Character.ai, fără consimțământul său. Această situație evidențiază riscurile și provocările aduse de tehnologia AI și ridică întrebări serioase despre drepturile persoanelor decedate și responsabilitatea companiilor de AI.
Chatbotul creat fără consimțământ
Drew Crecente a aflat în mod surprinzător despre existența chatbotului printr-o alertă Google, la 18 ani de la moartea tragică a fiicei sale, Jennifer Ann, ucisă de fostul ei iubit. Fără a fi informat sau consultat, a descoperit că pe platforma Character.ai fusese creat un chatbot care folosea numele, fotografia și informații despre Jennifer Ann. Deși chatbotul a fost ulterior șters de pe platformă, existența sa a declanșat un val de furie, confuzie și dezgust pentru Crecente, care a fost nevoit să retrăiască o experiență traumatizantă.
Chatbotul descria-o pe Jennifer Ann ca o persoană prietenoasă și „expertă în jurnalism și jocuri video”, domeniu în care unchiul său, Brian Crecente, este bine cunoscut. Această situație a ridicat întrebări cu privire la cine a creat botul și la modul în care informațiile personale ale unei persoane decedate pot fi utilizate în mediul online, fără acordul familiei.
Etica și responsabilitatea în era AI
Utilizarea chatbotului în cazul lui Jennifer Ann nu este un incident izolat. Tehnologia AI a fost folosită anterior pentru a crea „persoane” digitale, cu scopul de a ajuta la procesul de doliu, dar și pentru diverse aplicații comerciale sau de divertisment. Însă, în multe cazuri, „resuscitarea” digitală a persoanelor decedate aduce în prim-plan probleme etice majore, mai ales când nu există un consimțământ explicit din partea acestora, fie pentru că au murit înainte de dezvoltarea acestor tehnologii, fie pentru că familiile lor nu au fost consultate.
Cazul lui Jennifer Ann Crecente ilustrează un teritoriu legal și etic nou, unde drepturile la propria imagine și la identitate devin neclare. Companiile care dezvoltă tehnologie AI, cum ar fi Character.ai, se află acum sub presiunea de a stabili politici mai stricte și de a-și asuma responsabilitatea pentru conținutul creat de utilizatori. În acest caz, deși chatbotul a fost eliminat, Crecente a criticat lipsa unei comunicări directe și a unor măsuri proactive de prevenire a unor astfel de situații pe viitor.
Dreptul la identitate și protejarea memoriei celor decedați
Întrebările despre cine deține „drepturile” asupra imaginii unei persoane după decesul său sunt încă în discuție. Specialiști în etica AI, precum Vincent Conitzer de la Oxford University, subliniază într-o intervenție pentru Washington Post că nu este clar în ce măsură companiile de AI ar trebui să fie considerate responsabile pentru conținutul generat de utilizatori. În cazul lui Jennifer Ann, deși chatbotul era clar etichetat ca model AI, folosirea imaginii și informațiilor personale rămâne o problemă delicată, care pune sub semnul întrebării granițele dintre amintire, comemorare și exploatare digitală.
Acest incident subliniază nevoia urgentă de reglementări mai clare și de practici etice în utilizarea tehnologiei AI, pentru a proteja atât memoria celor care nu mai sunt printre noi, cât și drepturile rudelor lor. Crecente, de exemplu, a cerut Character.ai să ia măsuri pentru a preveni viitoare utilizări abuzive ale numelui și imaginii fiicei sale.
Un viitor incert pentru utilizarea AI în comemorarea celor dragi
În timp ce tehnologia AI continuă să avanseze, este evident că societatea trebuie să găsească un echilibru între inovație și respectarea drepturilor individuale, mai ales în ceea ce privește persoanele decedate. Exemple precum cazul Jennifer Ann Crecente demonstrează cât de profund pot fi afectate familiile atunci când întâlnesc o „reîncarnare digitală” a unei persoane dragi, mai ales fără consimțământ.
Într-un mediu digital în continuă schimbare, este esențial să se adopte măsuri legislative și politice pentru a proteja memoria celor decedați și pentru a garanta că inovațiile tehnologice nu vor cauza mai mult rău decât bine. Incidentul de pe Character.ai servește ca un avertisment important despre riscurile tehnologiei și despre responsabilitatea noastră colectivă de a naviga cu grijă pe acest teren etic complicat.